测试是精益数据分析的灵魂。通常,测试就是通过市场细分、同期群分析或A/B测试来比较两个样本的不同。对于需要通过科学的比较法来证明某种改变合理性的人来说,这些概念都显得格外重要。我们下面就将对其进行深入的讨论。

简言之,细分市场就是一群拥有某种共同特征的人。共同特征可以是:使用火狐浏览器,喜欢去餐馆前先预约,坐头等舱,或者家里有孩子并且开多功能休旅车。

以运营网站为例,你需要根据一系列的技术、人口信息对访客进行细分,然后比较各个细分市场之间的差异。如果发现“使用火狐浏览器”群体的购买行为明显少于其他群体,你可以通过进一步测试找出背后的原因。如果有特别多的高参与度用户来自澳大利亚,你就可以开展调查,找出原因,再将成功要素复制到其他人群中。

市场细分不仅可应用于网站,它对任何行业、任何形式的营销都大有裨益。美国的直邮营销(通过传统纸质信件进行的营销)早在几十年前就开始了市场细分的实践,并取得了巨大成功。

市场细分之外的第二种分析方法是同期群分析,比较的是相似群体随时间的变化。产品会随着你的开发和测试而不断迭代,这就导致在产品发布第一周就加入的用户和后来才加入的用户有着不同的体验。比如,每个用户都会经历一个生命周期:从免费试用,到付费使用,最后停止使用。同时,在这期间里,你还在不停地对商业模式进行调整。于是,在产品上线第一个月就“吃螃蟹”的用户势必与四个月后才加入的用户有着不同的上手体验。这对用户流失率会有什么影响?我们用同期群分析来寻找答案。

每一组用户构成一个同期群,参与整个试验过程。通过比较不同的同期群,你可以获知:从总体上看,关键指标的表现是否越来越好了。下例说明同期群分析对创业公司的重要意义。

假设你经营着一家网店。你每月能获取1000位新客户,他们每人都会买一些东西。表2-1显示了前五个月中平均每位客户带来的营收。

表2-1:5个月平均每位客户营收

 

1月

2月

3月

4月

5月

客户总数

1000

2000

3000

4000

5000

平均每位客户营收

5美元

4.5美元

4.33美元

4.25美元

4.5美元

然而,表格传达的信息十分有限。网店的生意究竟是日益红火还是每况愈下?这并不容易回答,因为你并没有对比新客户和老客户的表现;而且,在这个表格中,新客户和5个月前注册的老客户的数据是混在一起的。这几组数据仅显示:营收在经历小幅下降后又回升,而平均每位客户带来的营收值几近均一。

现在,仍旧使用相同的数据,但根据客户首次光顾的时间按月进行分段。在表2-2中,我们可以发现一些重要的变化。在第五个月光顾网店的客户,其首月平均消费为9美元——是第一个月光顾客户消费额的近2倍。这是一个巨大的增长!

表2-2:按照客户首次光顾月份比较营收

 

1月

2月

3月

4月

5月

新客户数

1000

1000

1000

1000

1000

总客户数

1000

2000

3000

4000

5000

第1个月

5美元

3美元

2美元

1美元

0.5美元

第2个月

 

6美元

4美元

2美元

1美元

第3个月

 

 

7美元

6美元

5美元

第4个月

 

 

 

8美元

7美元

第5个月

 

 

 

 

9美元

同期群的概念还可以表现为,根据用户的体验划分数据。在表2-3中,我们根据用户在网店上的“店龄”来划分数据。这显示了另一个重要的数据指标:用户消费是如何自首月起迅速衰减的。

表2-3:营收数据的同期群分析

同期群 使用月份
1 2 3 4 5
1月 5美元 3美元 2美元 1美元 0.5美元
2月 6美元 4美元 2美元 1美元
3月 7美元 6美元 5美元
4月 8美元 7美元
5月 9美元
平均值 7美元 5美元 3美元 1美元 0.5美元

同期群分析为我们提供了一个更加清晰的视角。如前例所示,前几个月中用户变现的疲软表现已经损害到了网店营收指标的总体状况。1月份的同期群(表2-3第一行)首月消费了5美元,然后逐月递减,到第五个月仅消费0.5美元。不过,随着网站的发展,新客户的首月花费有显著增长,接下来的消费下降趋势也有所缓解:4月份的同期群在首月消费8美元,次月消费7美元。如果只看表2-1,网店的发展似乎进入了瓶颈,但经过同期群分析得出,实际上网店正在茁壮成长。而且,你还明白了值得关注的关键数据:在首月注册消费后,客户消费的递减量。

同期群分析使你能够观察处于生命周期不同阶段客户的行为模式,而非忽略个体的自然生命周期,对所有客户一刀切。同期群分析适用于营收、客户流失率、口碑的病毒式传播、客户支持成本等任何你关注的数据指标。

如表2-2中所示,比较不同群体的同期群试验被称为纵向 研究,因为数据是沿着 客户群体的自然生命周期收集的。相对应地,横向 研究指在同一时间段对不同被试群体提供不同的体验。例如,向半数用户展示一个绿色链接,对另一半用户展示蓝色链接,观察哪种颜色的链接点击率更高就是一种横向研究。假设其他条件保持不变,仅考虑体验中的某一属性(如链接的颜色)对被试用户的影响,就是A/B测试。

你可以测试产品的所有细节,但最好首要关注那些关键的步骤和假设。A/B测试的结果会为你带来巨大的回报。众筹公司Picatic的创始人之一杰·帕玛对此深有体会。他将用于触发访客行为的立即试用产品 链接文字从“免费开始”改成了“免费试用”,仅仅这一简单的改动,就使链接点击率在10天内飙升了376%。

A/B测试看似简单易行,实则有一个软肋。只有用户流量巨大的大型网站(如微软必应、谷歌)能对单一的因素(如链接颜色、网页速度)进行测试并迅速得到答案。如果没有庞大的用户流量,你将需要测试很多因素。这可能包括网页的色调,触发用户行为的链接文字,图片效果等。

进行一连串的单独测试会延长你走向成熟的周期。与其如此,不如采用多变量分析法 同时对多个属性进行测试,其原理为,用统计学方法剥离出单个影响因子与结果中某一项指标提升的相关性。

图2-2展示了四种划分用户并进行分析或测试的方法。

{%}

图2-2:同期群、细分市场、A/B测试和多变量分析